Nguồn gốc của chương trình B-58 được bắt đầu vào tháng 2 năm 1949, khi một gói thầu thiết kế cho chương trình nghiên cứu Máy bay Ném bom Tổng quát hóa (GEBO II) được công bố bởi Bộ chỉ huy Nghiên cứu và Phát triển Hàng không (ARDC) tại Căn cứ Không quân Wright-Patterson.[2] Một số các hãng đã tham gia dự thầu bao gồm Boeing, Convair, Curtiss, Douglas, Martin và North American Aviation.

Được chế tạo dựa trên kinh nghiệm sẵn có của Convair về kiểu máy bay tiêm kích cánh tam giác trước đây, khởi đầu bởi chiếc XF-92A, một loạt các thiết kế GEBO II được phát triển bao gồm nghiên cứu các cấu hình cánh xuôi và cánh nữa tam giác, nhưng sắp đặt theo kiểu cánh tam giác. Đề nghị cuối cùng của Convair, mang tên mã FZP-110, là một thiết kế máy bay ném bom căn bản hai chỗ ngồi cánh tam giác trang bị động cơ General Electric J53. Tính năng bay được ước lượng sẽ đạt tốc độ tối đa 1.000 dặm mỗi giờ và tầm bay xa 3.000 dặm.[2]

Không quân Hoa Kỳ đã chọn Boeing (kiểu MX-1712) và Convair để tiếp tục phát triển nghiên cứu Giai đoạn 1. Chiếc Convair MX-1626 tiến triển thêm thành một thiết kế đề nghị được tinh chỉnh hơn và được đặt lại tên là MX-1964 và trở thành thiết kế chiến thắng trong cuộc thầu cạnh tranh, đáp ứng được các tiêu chuẩn SAB-51 (máy bay ném bom siêu thanh) và SAR-51 (máy bay trinh sát siêu thanh).[2]

Kiểu thiết kế B-58 là chương trình máy bay ném bom siêu thanh "thực thụ" đầu tiên của Không quân Hoa Kỳ. Thiết kế của Convair dựa trên kiểu cánh tam giác với mép trước cánh xuôi một góc 60° và bốn động cơ turbo phản lực General Electric J79-GE-1, có khả năng bay gấp hai lần tốc độ âm thanh. Cho dù cánh có diện tích lớn nhằm có được áp lực cánh tương đối thấp, nó lại được cho là khá phù hợp một cách đáng ngạc nhiên để bay nhanh ở độ cao thấp. Đội bay gồm ba người (phi công, sĩ quan hoa tiêu/ ném bom, và sĩ quan hệ thống phòng thủ) được bố trí ngồi trong ba khoang riêng biệt sắp đặt trước sau. Những phiên bản sau này đã cung cấp cho mỗi thành viên một khoang thoát hiểm kiểu mới cho phép phóng ra ở độ cao 21.000 m (70.000 ft) ở tốc độ lên đến Mach 2 (2.450 km/h; 1.320 mph). Không giống các ghế phóng tiêu chuẩn vào thời đó, đây là kiểu một "vỏ sò" bảo vệ mang ghế và cần điều khiển cùng với bình oxy gắn liền.[3] Trong một chương trình thử nghiệm thật khác thường, những con gấu sống đã được sử dụng để thử nghiệm thành công hệ thống phóng này.[4] Sau này chiếc XB-70 sẽ sử dụng một hệ thống tương tự như vậy.

Vì nhiệt lượng sinh ra khi bay ở tốc độ Mach 2 là rất lớn, không chỉ khoang dành cho đội bay, mà khoang chứa bánh đáp và khoang chứa thiết bị điện tử cũng được điều áp và điều hòa nhiệt độ. Chiếc B-58 đã áp dụng lần đầu tiên một trong những kiểu tấm nhôm cấu trúc tổ ong, gồm những lá nhôm mặt trong và mặt ngoài ép lên một lớp tổ ong làm bằng nhôm và sợi thủy tinh.

Chiếc B-58 thường mang tiêu biểu một vũ khí nguyên tử trong một cụm thon MB-1C bên dưới thân. Từ năm 1961 đến năm 1963 nó được tái trang bị hai đế sắp đặt tiếp nối trước sau dưới mỗi cánh ở phía trong động cơ, mang được bom nguyên tử B43 hoặc B61, nên tổng cộng có năm vũ khí nguyên tử cho mỗi máy bay. Một khẩu pháo M61 Vulcan được gắn trên một tháp súng đuôi điều khiển bằng radar dành cho phòng thủ, nhưng một số đã khám phá ra rằng ở tốc độ Mach 2, tốc độ đầu đạn bắn ra không nhanh hơn nhiều so với tốc độ máy bay. Mặc dù Không quân Mỹ đã khảo sát khả năng sử dụng chiếc B-58 trong vai trò tấn công bằng vũ khí thông thường, nó chưa bao giờ được trang bị để mang hay ném bom thông thường khi hoạt động. Một cụm trinh sát hình ảnh, chiếc LA-331, đã được đưa ra. Nhiều kiểu cụm chuyên dùng khác dành cho phản công điện tử hay tên lửa hành trình đời đầu đã được xem xét, nhưng không được áp dụng.